Ngay từ khi Đảng Cộng sản Việt Nam thành lập năm 1930, Điều lệ tóm tắt của Đảng đã quy định đảng được tổ chức gồm 5 cấp: Trung ương, Xứ bộ, tỉnh bộ hay đặc biệt bộ, huyện bộ, thị bộ hay là khu bộ và chi bộ. Tại cấp trung ương có Ban Chấp hành và Ban Thường vụ. Cấp xứ có Xứ ủy và Ban Thường vụ. Sau đó Ban Chấp hành Trung ương lâm thời thành lập. Ba xứ Bắc kỳ, Trung kỳ, Nam kỳ thành lập Xứ ủy. Bí thư Xứ ủy Bắc kỳ đầu tiên là Nguyễn Đức Cảnh, Bí thư Xứ ủy Trung kỳ đầu tiên là Nguyễn Phong Sắc và Bí thư Xứ ủy Nam Kỳ đầu tiên là Ngô Gia Tự.

Cho đến năm 1934, nhiều tổ chức đảng bị Pháp khủng bố và phá vỡ, nhiều thành viên Ban Chấp hành trung ương bị bắt và giết hại, Đảng tổ chức ra Ban lãnh đạo của Đảng ở ngoài nước. Đến Đại hội I của đảng năm 1935, tổ chức của đảng gồm 6 cấp. Giúp việc cho Ban Chấp hành Trung ương có các bộ (ban): Bộ Tuyên truyền huấn luyện TW, Bộ Tài chính, Văn phòng TW (thay Ban đảng vụ), Bộ Tổ chức -Kiểm tra TW (thay Bộ Tổ chức kiêm giao thông TW).

Năm 1948 hệ thống tổ chức của đảng có sự thay đổi. Tổ chức đảng ở Bắc Bộ và Trung Bộ có 5 cấp, ở Nam Bộ có 6 cấp, có Xứ ủy Miên và Xứ ủy Lào. Tháng 10 năm 1948 Ban Kiểm tra TW được thành lập, Trưởng ban ban đầu là ông Trần Đăng Ninh. Bộ Tổ chức TW cũng được tổ chức lại tháng 12 cùng năm. Trường Nguyễn Ái Quốc TW được thành lập năm 1949. Sau Đại hội II năm 1951, hệ thống đảng có 6 cấp. Giúp việc cho Trung ương đảng có các ban: Tuyên huấn, Tổ chức, Mặt trận, Kinh tế, tài chính và 6 tiểu ban: Miên- Lào, Công vận, Nông vận, Thanh vận, Phụ vận.

Thời kỳ 1954-1975 tổ chức đảng có nhiều thay đổi. Ở Miền Nam năm 1954 lập lại Xứ ủy Nam Bộ và 3 liên khu ủy. Năm 1961 Ban Thống nhất Trung ương được thành lập. Một bộ phận của TW đảng tại miền nam lấy tên Trung ương Cục Miền Nam, và đảng bộ miền nam là Đảng Nhân dân Cách mạng Việt Nam. Ban cán sự đảng ngoài nước cũng được thành lập.

Thời kỳ 1976-1986 tổ chức đảng có những thay đổi phù hợp, cơ bản tổ chức 4 cấp tương ứng với hệ thống tổ chức bộ máy hành chính Nhà nước. Giải thể TW cục Miền Nam và cấp khu.

Sau Đại hội VI năm 1986, cơ quan tham mưu giúp việc cho đảng có 17 ban như khóa trước cộng thêm Ban Cương lĩnh chiến lược và 15 đơn vị sự nghiệp. Đến khóa VII chỉ còn 13 ban và 5 đơn vị sự nghiệp. Ngày 14 tháng 2 năm 1992 Bộ Chính trị ra quyết định thành lập lại đảng đoàn, ban cán sự ở các cơ quan nhà nước, đoàn thể cấp trung ương. Sau đó Ban Bí thư quyết định lập đảng đoàn, ban cán sự đảng ở các cơ quan cấp tỉnh và cấp huyện, lập thí điểm ban cán sự tại một số doanh nghiệp trọng yếu của nhà nước.

Tại Đại hội VIII, thành lập Ban Thường vụ Bộ Chính trị thay thế Ban Bí thư. Đến Đại hội IX, bỏ Ban Thường vụ Bộ Chính trị, lập lại Ban Bí thư, đồng thời bỏ Ban Cố vấn. Ở cấp trung ương, có 12 ban và 4 đơn vị sự nghiệp.

Từ năm 1982 thành lập 10 đảng bộ khối cơ quan trung ương, đến khóa IX còn có 7 khối: Khối I cơ quan Trung ương, Khối Kinh tế, Khối Tư tưởng, Khối Khoa giáo, Khối Nội chính, Khối Đối ngoại, Khối Dân vận. Mỗi khối có Đảng ủy. Ở các địa phương cũng tổ chức các Đảng bộ khối. Đến sau đại hội X năm 2006 bộ máy đảng được kiện toàn, có nhiều thay đổi, đáng kể nhất là sáp nhập một số ban và tổ chức lại các đảng bộ khối cơ quan Trung ương.